Bayesian Risk(Bayes estimator)

Bayesian Decision에 따라 어떠한 aciton을 취할 때, 그에 따라는 cost(혹은 risk)는 동일하지 않다. 즉, action에 따라 다른 risk term을 부여할 필요가 있다.

즉, $α_{i}$ 를 취했을 때 expected risk는

R (α_{i} ∣ x) \equiv k \sum λ_{ik} P (c_{k} ∣ x)

와 같이 정의된다.
이에 대하여, 가장 low cost한 i를 찾아 그 $α_{i}$ 를 취한다.

0/1 loss

$λ_{ik} = {01 if i = k if i \neq = k$

: Risk를 $0$ 혹은 $1$ 로 취하는 방식의 Bayesian Risk.

R (a_{i} ∣ x) = k \sum λ_{ik} P (c_{k} ∣ x) = k \neq = i \sum P (c_{k} ∣ x) = 1 - P (c_{i} ∣ x)

이에 대해 $ar g min_{i}$ 를 취하게 되면, 곧 이는 Maximum posterior probability clasiifcation으로 변하게 된다.

α_{K + 1}

: reject action을 추가한다. 이는 사람이 판단하는 것으로, misclassification에 대한 Risk가 매우 큰 경우에 대해 사용한다.

$λ_{K + 1, k}$ : cost for the reject, 실제로 input이 $c_{k}$ 일 때.

R (α_{i} ∣ x) = ⎩ ⎨ ⎧ k = 1 \sum K λ_{ik} P (c_{k} ∣ x) = 1 - P (c_{i} ∣ x) k = 1 \sum K λ_{ik} P (c_{k} ∣ x) = λ k = 1 \sum K P (c_{k} ∣ x) = λ if i \leq K if i = K + 1

즉, 사람이 classification 할 때의 cost가 더 작다면 reject aciton을 취한다.